MiniMax Sparse Attention
MiniMax稀疏注意力（MSA）
🧭 超长上下文LLM推理 · 分块稀疏注意力
MiniMax · Peking University · NVIDIA · Zhejiang University · Huazhong University of Science and Technology
提出MiniMax稀疏注意力，通过分组索引分支动态选择关键块，将1M上下文计算量降低28.4倍并实现14.2倍预填充加速
📌 工作参考价值（4 点）
- 长上下文LLM服务降本：对于需要处理超长对话历史或文档的多轮Agent、客服系统，MSA的分组稀疏选择机制可直接集成到GQA模型中，用轻量索引分支动态裁剪KV块，大幅降低每token注意力成本，适合高并发在线服务。
- 分组独立Top-k选择：每个GQA group独立选择重要块，比统一选择更灵活，在推荐系统中的用户行为序列建模（如长序列Transformer）可借鉴，按不同head关注点实现差异化稀疏检索。
- 推理kernel协同设计：论文的exp-free Top-k和KV-outer稀疏注意力kernel利用块级访存模式提升张量核心利用率，可直接用于自研推理引擎，尤其在批量解码时实现高吞吐。
- 训练稳定性的KL蒸馏：索引分支通过KL loss对齐主分支注意力分布且梯度解耦，这种学习稀疏选择的方法可迁移到其他需端到端学习稀疏检索的场景（如召回中的粗筛网络）。